Риски новой функции Chronicle от OpenAI 

В понедельник OpenAI запустила Chronicle — функцию в режиме исследовательского предварительного просмотра в настольном приложении Codex для Mac, которая периодически делает снимки экрана для формирования постоянной памяти ИИ-ассистента по написанию кода. 

Функция, анонсированная через аккаунт OpenAI Developers в X, представляет собой один из наиболее смелых шагов ИИ-компании в сторону создания фонового ассистента, ведущего постоянное наблюдение, — и его запуск сопровождается рядом оговорок, о которых сама OpenAI высказалась с непривычной для себя откровенностью.

Как это работает

Chronicle запускает изолированные фоновые агенты, которые периодически делают снимки экрана, отправляют их на серверы OpenAI для обработки и сохраняют результаты в локальные файлы памяти в формате Markdown. Сформированные записи памяти хранятся в виде незашифрованного обычного текста в папке на Mac пользователя — как правило, по адресу ~/.codex/memories_extensions/chronicle/. 

Временные файлы скриншотов сохраняются локально и удаляются через шесть часов при условии, что Chronicle активен. OpenAI утверждает, что скриншоты не хранятся на её серверах после обработки и не используются для обучения моделей.

Для работы функции необходимы разрешения macOS на запись экрана и доступ к специальным возможностям. Она доступна только подписчикам ChatGPT Pro — тарифного плана стоимостью 200 долларов в месяц — на компьютерах Mac с процессорами Apple Silicon. Функция полностью недоступна в странах ЕС, Великобритании и Швейцарии, что убедительно свидетельствует о её несовместимости с требованиями GDPR и смежных режимов защиты данных.

Риски для конфиденциальности и безопасности

Собственная документация OpenAI открыто предупреждает об опасностях. Chronicle «повышает риск атак с внедрением подсказок через содержимое экрана» — компания предостерегает, что посещение сайта со встроенными вредоносными инструкциями может заставить Codex следовать им. В отличие от традиционных атак на промпты, требующих от пользователя вставить враждебный текст в диалог, Chronicle расширяет поверхность атаки до всего, что видно на экране: превью фишингового письма, специально созданной веб-страницы или скомпрометированного сообщения в Slack.

Дополнительную угрозу представляют незашифрованные файлы памяти в формате Markdown. OpenAI признаёт, что «другие программы на вашем компьютере также могут обращаться к этим файлам», а значит, любое скомпрометированное приложение на общей или рабочей машине разработчика способно прочитать конфиденциальные детали проектов, внутренние URL-адреса или пользовательские данные, хранящиеся в папке памяти Chronicle. Кроме того, функция агрессивно расходует лимиты запросов: фоновые агенты работают непрерывно, обрабатывая снимки экрана.